Vào năm 2004, Ramos là một trong những cầu thủ nổi bật của đội U21 Tây Ban Nha, chơi 6 trận quốc tế. Cho đến 26 tháng 3 năm 2005, năm 19 tuổi, tại Salamanca, anh trở thành cầu thủ trẻ nhất chơi cho đội tuyển Tây Ban Nha trong 55 năm trở lại, ở trận gặp Trung Quốc. Một ít lâu sau kỷ lục này đã bị phá vỡ bởi Cesc Fàbregas.

Anh đã ghi dấu ấn trong sự nghiệp quốc tế của mình trong trận gặp Serbia và Montenegro, một trận đấu vòng loại của World Cup 2006. Ramos được gọi vào đội tham dự World Cup 2006 vào 15 tháng 5 năm 2006, Bởi vì Míchel Salgado vắng mặt, anh trở thành lựa chọn tốt nhất ở vị trí hậu vệ cánh phải.

Tại Euro 2008, anh là một cầu thủ nổi bật của đội tuyển, cùng với những cầu thủ trẻ khác, đã đưa Tây Ban Nha lần thứ 2 lên ngôi vô địch châu Âu sau khi đánh bại Đức 1-0.

Vào ngày 27 tháng 5 năm 2018 (giờ Việt Nam), Sergio Ramos đã có tình huống khóa tay cầu thủ Liverpool là Mohamed Salah trong trận chung kết UEFA Champions League 2018 và buộc cầu thủ đó phải rời sân vì chấn thương vai. Sau trận đấu, các fan Liverpool tố Ramos chơi bẩn và pha bẻ vai của đội trưởng Real Madrid với Mohamed Salah chẳng khác nào trong một trận đấu MMA hay vật tự do. Các bác sĩ ở Liverpool xác nhận thủ môn Karius bị chấn thương vùng đầu sau pha giật cùi chỏ của anh trong trận đấu tại Kiev. Không loại trừ đây có thể là nguyên nhân khiến anh thi đấu thiếu tập trung và liên tục mắc sai lầm trong hiệp hai. Bác sĩ Ross Zafonte ở Boston, Mỹ cho biết: "Sau buổi kiểm tra toàn diện, chúng tôi xác nhận Karius phải thi đấu với chấn thương vùng đầu vào ngày 26/5. Cậu ấy có triệu chứng rối loạn thị giác gây ảnh hưởng trực tiếp đến khả năng chơi bóng".[9]